O'Brien được đặt lườn tại Xưởng hải quân Boston ở Boston, Massachusetts vào ngày 31 tháng 5 năm 1938. Nó được hạ thủy vào ngày 20 tháng 10 năm 1939; được đỡ đầu bởi cô Josephine O’Brien Campbell, một hậu duệ sáu đời của Gideon O’Brien; và nhập biên chế cùng Hải quân Mỹ vào ngày 2 tháng 3 năm 1940 dưới quyền chỉ huy của Hạm trưởng, Thiếu tá Hải quân Carl F. Espe. Do nó được đóng trong một ụ nổi cùng với các tàu khu trục Walke, Lansdale và Madison, buổi lễ đặt tên và nhập biên chế của chúng được tổ chức kết hợp.